Day 30 : 綜合整理 MLOps 成熟度模型

2021 iThome 鐵人賽

DAY 30

AI & Data

13th鐵人賽 tensorflow mlops

2801 瀏覽

MLOps 是值得持續投入的新興學門，如同 Day 01 談到的此系列目的，談如何從佈署機械學習至商業情境(ML in Production)，並關注佈署之後所需注意的資料品質、模型版本控制與剪枝、AI 可解釋力、錯誤分析、自動化 ML 到持續佈署，期待用 ML 專案生命週期的角度執行 MLOps 需要的。目標很宏大，篇幅與表達能力有限，筆者很享受這趟整理的路程。
30 天過去了，梳理我們在AI落地談 MLOps 中有那些進展。

技術介紹隨著機械學習生命週期推進，系列主軸希望介紹由 Google 開源的 TensorFlow Extended (TFX) 做為用於生產的機械學習框架，也以ML系統生命週期介紹實踐與模型優化方法。

MLOps Level 0 ~ 2

系列文的最後，容許筆者將 MLOps 等級劃分作為投入用於生產的機械學習的實踐路徑。以下的等級劃分採用 Google 的定義，採等級 0 至 2 ，微軟也有機器學習作業成熟度模型的定義分為等級 0 至 5 ，您可以相互對照參考。

一個全手動，沒有 CI/CD 的過程，訓練與佈署之間可能有時間延遲的偏態 Skew 產生，非自動化持續訓練，版本追溯有難度，也缺乏主動監控機制，在最初投入產生可行方案時的過渡時期，但較難因應服務崩潰與中斷的狀況。

MLOps 等級 1 導入自動化訓練流程，可以自動持續交付佈署模型，另外也有手動訓練模型的機制，訓練好的模型交付 IT 或維運團隊佈署上線。
等級 1 已經足夠挑戰用於生產的情境，模型需手動測試管道與組件，在不頻繁的佈署、尚只有少數機械學習服務投入生產情境時還可以因應管理，一但您在生產中管理許多 ML 服務，則需要一個 CI/CD 設置來自動構建、測試和部署 ML 的流程。

為了快速可靠地更新生產中的管道，您需要一個強大的自動化 CI/CD 系統。這個自動化的 CI/CD 系統讓資料科學團隊快速探索特徵工程、模型架構和超參數的新想法。並且可以實現自動構建、測試並將新的管道組件部署到目標環境。
下圖為具有自動觸發、 CI/CD/CT 與監控的自動化機械學習工作流程。

今年為了 MLOps 做了許多功課，很大一部分要感謝 GCP 的活動 Google Cloud 開發者技術培訓計劃 / Google Cloud Study Jam (Taiwan and Hong Kong)，解完12組題組(其實早就超過)拿到衣服、背包，又能實際摸索 GCP 各功能，相當優質。
更要感謝 Coursera 開設的 Machine Learning Engineering for Production (MLOps) 課程，當得知吳恩達新課剛好是期待的 MLOps 主題，立馬申請助學金完成這4堂優質技術內容，每門課程約需進行4至5週，總是迫不及待想整理與分享，也因此能有更多有趣實用的主題能整理至鐵人賽。
本系列範例多以官網或官網修改而成，原因為對照官方文件學習資源較為充足，即便如此官方範例實在是略顯繁雜，特別是以 TFX 介紹為主軸不是件容易的事。適逢 2021年5月19 TFX 正式邁入 1.0 穩定版，深感 TFX 中文資源缺乏，於是有了在 iThome 鐵人賽貢獻與整理的念頭。
最後就是感謝能陪我一起煎熬的走完 30 日內容的您，有限篇幅內講述龐大知識體系著實不易，興許會隨著 MLOps 主題延伸介紹更新，如果對您有幫助就值得了，由衷感謝。